Ledecky sinh ra tại thủ đô Washington. D.C,[1] là con của bà Mary Gen và ông David Ledecky. Ông nội của cô là người Séc, đến Mỹ năm 1947 và bà nội của cô là người Do Thái.[2][3] Mẹ cô là người gốc Ai len.[4] Ledecky là người theo đạo Công giáo.[5]

Lên 6 tuổi, Ledecky bắt đầu tập bơi do ảnh hưởng bởi anh trai mình. Trong suốt quá trình bơi của cô ở trường cấp 3, Ledecky 2 lần lập kỷ lục Mỹ và US Open ở nội dung 500 m tự do, 2 lần lập kỷ lục quốc gia ở nội dung 200 yard tự do.